Meta aproape a dublat cantitatea de conținut violent eliminat de pe Facebook: planurile de a îmbunătăți algoritmii

Meta aproape a dublat cantitatea de conținut violent pe care îl elimină de pe Facebook. În primul trimestru al anului 2022, compania a eliminat 21,7 milioane de video-uri cu conținut care încalcă regulile sale privind violența și incitarea la violență. Asta este o creștere de la 12,4 milioane în trimestrul precedent.

De asemenea, eliminările au crescut pentru trimestrul acesta și pe Instagram, dar doar ușor. Compania a eliminat 2,7 milioane de postări pentru încălcarea regulilor sale privind violența, în creștere față de 2,6 milioane în ultimul trimestru din 2021.

Compania a distribuit noile valori ca parte a raportului său trimestrial de aplicare a standardelor comunitare. În raport, Meta a atribuit creșterea numărului de eliminări unei „extinderi a tehnologiei noastre de detectare proactivă”. Potrivit companiei, peste 98% dintre postările pe care le-a eliminat au fost eliminate înainte ca utilizatorii să le raporteze.

Meta încearcă să facă din platformele sale locuri cât mai sigure

Raportul vine într-un moment în care Meta se confruntă cu o analiză atentă pentru timpul de răspuns după recentele împușcături în masă din Buffalo, New York. Înregistrările live ale evenimentului au circulat pe Facebook și pe alte platforme și companiile au întârziat să elimine toate noile copii. O copie postată pe Facebook a fost distribuită de peste 46.000 de ori înainte de a fi eliminată, la peste nouă ore după ce a fost postată inițial, potrivit The Washington Post.

Ca și în cazul împușcăturilor anterioare în masă, precum Christchurch, capacitatea oamenilor de a descărca rapid și de a face noi copii ale înregistrărilor live a testat capacitatea Meta de a-și aplica politicile.

„Una dintre provocările pe care le vedem prin evenimente ca acesta este că oamenii creează conținut nou, versiuni noi, link-uri externe noi, pentru a încerca să eludăm politicile noastre”, a declarat Guy Rosen, vicepreședintele Integritate al Meta, în timpul unui apel cu reporterii. „Ca în orice incident, vom continua să învățăm să ne perfecționăm procesele și sistemele, pentru a ne asigura că putem detecta și elimina mai rapid conținutul care încalcă, în viitor, regulile noastre”.

Meta a distribuit și statistici actualizate despre conținutul pe care îl îndepărtează din greșeală. Pentru conținutul violent, compania a spus că, în cele din urmă, a postat la loc 756.000 de postări de pe Facebook care au fost contestate după ce au fost inițial eliminate. Compania a spus că „lucrează, de asemenea, la dezvoltarea unor măsurători robuste în jurul greșelilor”, dar nu a explicat ce ar măsura mai exact.